Trường Đại học Sư phạm Kỹ thuật Tp. Hồ Chí Minh được hình thành và phát triển trên cơ sở Ban Cao đẳng Sư phạm Kỹ thuật Trung tâm Quốc gia Kỹ thuật Phú Thọ thành lập ngày 05/10/1962 theo quyết định số 1082/GD của chính quyền Việt Nam Cộng hòa. Ngày 21/09/1972, theo công lệnh số 2826/GD/TTH/CL trường được đổi tên thành Trung tâm Cao đẳng Sư phạm Kỹ thuật Nguyễn Trường Tộ - Thủ Đức.[2]

Năm 1974, cùng với việc thành lập Viện đại học Bách khoa Thủ Đức, trường được đổi tên thành Đại học Giáo dục Thủ Đức là một trong 7 thành viên của Viện, gồm:

• Trường Đại học Khoa học Cơ bản.
• Trường Đại học Kỹ thuật (nay là trường Đại học Bách Khoa TP. Hồ Chí Minh).
• Trường Đại học Nông nghiệp Sài Gòn (nay là trường Đại học Nông Lâm TP. Hồ Chí Minh).
• Trường Đại học Giáo dục Thủ Đức (Đại học Sư phạm Kỹ thuật TP. Hồ Chí Minh ngày nay).
• Trường Đại học Kinh Thương ("Kinh Thương" là viết tắt của "Kinh tế và Thương mại").
• Trường Đại học Thiết kế Thị Thôn ("Thị Thôn" là viết tắt của "Thành thị và Nông thôn").
• Trường Đại học Cao cấp (tiếng Anh: College of Graduate Studies), điều phối các chương trình đào tạo bậc cao học và tiến sĩ.[3]

Ngày 8/11/1975, Chính phủ cách mạng lâm thời Cộng hòa Miền Nam Việt Nam thành lập Viện đại học Sài Gòn (VĐHSG) gồm 11 trường Đại học trên địa bàn (Khoa học, Văn khoa, Luật khoa, Y khoa, Nha khoa, Dược khoa, Sư phạm, Kiến trúc, Kỹ thuật Phú Thọ, Giáo dục Thủ Đức, Nông nghiệp). Ngày 24/3/1976, Ban Dân chính Đảng Trung ương Đảng Cộng sản Việt Nam thành lập Đảng bộ Viện Đại học Sài Gòn. Viện Đại học Sài Gòn là sự sáp nhập Viện Đại học Bách Khoa Thủ Đức và Viện Đại học Sài Gòn cũ cho phù hợp với điều kiện mới.

Ngày 27/10/1976, Thủ tướng Chính phủ đã ký quyết định số 426/TTg, tổ chức lại 11 trường đại học trực thuộc VĐHSG còn 8 trường:

• Đại học Tổng hợp TP. Hồ Chí Minh (sáp nhập hai trường Đại học Khoa học và Đại học Văn khoa).
• Đại học Bách Khoa (nguyên là trường Đại học Kỹ thuật Phú Thọ).
• Đổi tên Đại học Giáo dục Thủ Đức thành trường Đại học Sư phạm kỹ thuật Thủ Đức.
• Đại học Y Dược (sáp nhập 3 trường đại học Y, Dược, Nha khoa).
• Trường Đại học Kinh tế.
• Trường Đại học Nông Lâm.
• Trường Đại học Sư phạm.
• Trường Đại học Kiến trúc.

Các trường Đại học Tổng hợp, Bách khoa, Sư phạm Kỹ thuật, Kinh tế thuộc Bộ Đại học và THCN, trường Đại học Y Dược thuộc Bộ Y tế, trường Đại học Kiến trúc thuộc Bộ Xây dựng, trường Đại học Nông Lâm thuộc Bộ Nông nghiệp và trường Đại học Sư phạm thuộc Bộ Giáo dục, do các bộ quản lý về tổ chức nhân sự và ngân sách. Viện đại học Sài Gòn giải thể vì đã làm tròn sứ mạng lịch sử.

• Năm 1984, Trường Đại học Sư phạm Kỹ thuật Thủ Đức sáp nhập với Trường Trung học Công nghiệp Thủ Đức và đổi tên thành Trường Đại học Sư phạm Kỹ thuật TPHCM. Năm 1991, Trường Sư phạm Kỹ thuật V được sáp nhập vào Trường Đại học Sư phạm Kỹ thuật TPHCM.
• Từ ngày 27/01/1995, trường Đại học Sư phạm Kỹ thuật trực thuộc Đại học Quốc gia.
• Theo quyết định số 118/2000/QĐ-TTg ngày 10/10/2000 của Thủ tướng Chính phủ, trường Đại học Sư phạm Kỹ thuật cùng với Đại học Kiến Trúc, Đại học Kinh tế, Đại học Nông Lâm, Đại học Sư phạm, Đại học Luật được tách khỏi Đại học Quốc gia và trực thuộc Bộ Giáo dục và Đào tạo.